Tháng 6 năm 1978, ông làm Phó Bí thư Thành ủy kiêm Chính ủy Bộ Chỉ huy Quân sự thành phố Hà Nội. Là Phó Bí thư Thường trực Thành ủy Hà Nội, ông đã cùng tập thể Thường vụ Thành ủy lo chạy gạo, mì, chất đốt... cho nhu cầu tối thiểu của người dân. Để tiết kiệm cho công quỹ thành phố, ông đi bộ từ nhà đến cơ quan mang theo một cà mèn cơm như cán bộ nhân viên thời đó. Trong gian nan, ông đã dành nhiều công sức đi xuống các trường đại học, các viện nghiên cứu, nhà máy, xí nghiệp, gặp gỡ lắng nghe ý kiến ở cơ sở để có cái nhìn toàn diện, cụ thể về sự phát triển Thủ đô và từng bước tháo gỡ những khó khăn. Thực tế sinh động là căn cứ quan trọng để ông sớm nhìn nhận ra và đồng tình với quan điểm đổi mới của Trường Chinh trong dự thảo Nghị quyết Đại hội VI của Đảng, vì đó là thời kỳ khởi đầu một bước ngoặt mới trong sự phát triển của đất nước.
